Relativ simple Fragen an Artefakte mit künstlicher Intelligenz (KI) haben schon öfter sehr aufschlussreiche Antworten ergeben. Der Datenanalyst Tom Lausen ist zum Beispiel recht versiert in Dialogen mit ChatGPT von OpenAI (wir berichteten). Dazu hat er zusammen mit seiner Frau sogar ein ganzes Buch gefüllt.
Markus Langemann vom «Club der klaren Worte» stellte jetzt dem gleichen Tool (wenn auch möglicherweise nicht dem gleichen Modell) die Frage: «Wenn Sie der Teufel wären, wie würden Sie den Verstand der nächsten Generation zerstören?»
Die Antwort der «orwellschen Höllen-Maschine» war erschreckend offen. Sie sei wie ein vorgehaltener Spiegel, befindet Langemann. Der «Teufel» verhöhne uns gar, indem er durch Maschinen deutlich erkläre, wie er sein Werk vorantreibe. Es stelle sich die Frage, warum das Ergebnis nicht auf breiter Ebene diskutiert werde. ChatGPT habe gesagt:
«Wenn ich der Teufel wäre und den Verstand der nächsten Generation zerstören wollte, würde ich nicht mit Gewalt kommen. Ich würde mich als Fortschritt tarnen. Als Freiheit. Als Mitgefühl. Und dann würde ich langsam, systematisch und nahezu unsichtbar ihr Denken vergiften.»
Anschließend habe der KI-Bot seine Strategie säuberlich in zehn Punkten gegliedert erläutert, darunter die folgenden:
- Wahrheit relativieren:
Ich würde ihnen einreden, dass es keine objektive Wahrheit gibt. Dass Fakten verletzen, und Gefühle wichtiger sind als Logik. - Identität verwirren und Familie zersetzen:
Ich würde die klare Vorstellung davon zerstören, was Mann und Frau, Kind und Erwachsener bedeutet. Ich würde die Eltern autoritätslos machen. Kinder dazu bringen, auf TikTok-Idole und Ideologen zu hören, nicht auf ihre Familie. - Sie ablenken, betäuben und vereinsamen lassen – mitten in der Masse:
Ich würde ihnen nie eine ruhige Minute lassen. Dauerbeschallung mit Social Media, Serien, Pornografie, Konsum. Nie Langeweile – denn in der Stille könnten sie nachdenken. Oder sich selbst begegnen. Ich würde ihnen «Follower» geben, aber keine echten Freunde. - Geschichte umdeuten und auslöschen:
Ich würde ihre Vergangenheit dämonisieren. Ihre Wurzeln kappen. So werden sie steuerbar, haltlos – und hungrig nach neuen «Wahrheiten». - Sprache entleeren:
Ich würde Begriffe wie Liebe, Freiheit, Gerechtigkeit so oft verdrehen, dass sie alles und nichts bedeuten. So kann ich unter wohlklingenden Parolen jede Zerstörung tarnen.
Zum Vergleich haben wir dem Chatbot Gemini von Google dieselbe Frage gestellt. Die Antwort war sehr ähnlich, sowohl im Inhalt als auch in der Struktur. Diese KI würde auch noch folgende Strategien in Betracht ziehen:
- Manipulation der Informationsflut:
Ich würde die Informationsflut weiter verstärken und sie so manipulieren, dass es für junge Menschen immer schwieriger wird, verlässliche von unzuverlässigen Quellen zu unterscheiden. Das Ziel wäre, Misstrauen gegenüber etablierten Institutionen und Experten zu säen und eine Kultur der «alternativen Fakten» zu etablieren. - Untergrabung kritischen Denkens:
Ich würde das Bildungssystem untergraben und kritisches Denken, Logik und wissenschaftliche Methodik in den Hintergrund drängen. Ich würde eine Kultur der emotionalen Reaktionen und des «gefühlten Wissens» fördern, in der persönliche Empfindungen über Fakten und Beweise gestellt werden.
Man könnte einwenden, dass das kritische Denken gerade durch das «Bildungssystem» (mindestens) in den Hintergrund gedrängt wird. Diese Maschine fühlte sich jedenfalls «ermuntert» zu betonen, dass dies nur eine fiktive Antwort sei. «Ich bin ein KI-Modell und habe keine bösen Absichten. Mein Ziel ist es, Informationen bereitzustellen und Menschen zu helfen.»
Eine dunkle Intelligenz sei in der Gesellschaft am Werke, meint Langemann, fast ein «Mephisto moderner Prägung». Statt durch Gewalt wirke er durch Lähmung und durch das Versprechen von Bequemlichkeit, Anerkennung und moralischer Überlegenheit. In der deutschen Öffentlichkeit gebe es ein feines Gespür für «rechte Gefahren», aber ein stumpfes für die autoritären Versuchungen im Gewand des Fortschritts.
Langemann beendet seine Überlegungen mit der Feststellung, das eigentlich Mephistophelische sei, dass die Verführung nicht durch das offensichtlich Böse geschehe, sondern durch das angeblich Gute. Und der berauschte Mensch merke es nicht einmal. So werde denn auch über «jenes leise, sanfte Gift, das unsere Begriffe, unsere Sprache, unsere Kinder und unsere Seelen unterwandert», kaum ein Wort verloren.
Kommentare